По сообщению новостного агентства Хавза, научное заседание на тему «Предвзятость в искусственном интеллекте» было организовано группой эпистемологии и когнитивных наук Исследовательского института культуры и исламской мысли с участием Ходжат аль-Ислама доктора Алирезы Каэминии, и прошло в среду, 12 марта 2024 года, в зале мысли Исследовательского института культуры и исламской мысли в Куме.

На этом заседании Ходжат аль-Ислам Каэминия сначала затронул вопрос объективности и субъективности искусственного интеллекта, заявив: «Стоим ли мы перед объективной реальностью в искусственном интеллекте, или нет? Общественное мнение часто предполагает, что искусственный интеллект — это знание без предвзятости, но это обычное представление. Множество специалистов считают, что искусственный интеллект создает объективное, не искаженное знание. Использование искусственного интеллекта в таких областях, как математика, социальные науки, психология и других, имеет место, и в большинстве этих случаев мы видим, что многие люди верят в объективность знаний, получаемых с помощью искусственного интеллекта, и считают, что в нем нет предвзятости и направленности».

Затем он указал на аргументы сторонников объективности искусственного интеллекта, объяснив: «Они приводят два довода. Первый — это то, что искусственный интеллект основан на математике и определенной логике, и математическое знание считается объективным, следовательно, искусственный интеллект тоже объективен и не имеет предвзятости».

Каэминия продолжил, что второй довод сторонников объективности искусственного интеллекта заключается в том, что искусственный интеллект работает на основе данных, и так как он использует данные для обработки и моделирования, то в нем не может быть предвзятости. «В целом эти два аспекта объясняют взгляд сторонников объективности искусственного интеллекта, утверждающих, что в нем нет предвзятости», — добавил он.

Член научного совета Исследовательского института культуры и исламской мысли далее представил вторую точку зрения и сказал: «Многие считают, что в искусственном интеллекте существует особая предвзятость, называемая алгоритмической предвзятостью. Искусственный интеллект может иметь большие ошибки, и в противоположность этим ошибкам существует когнитивная предвзятость, присущая самому человеку».

Он также затронул тему превосходства данных над алгоритмами, заявив: «Когда искусственный интеллект работает с алгоритмами, мы должны признать, что есть определенные аспекты, которые предшествуют алгоритмам, такие как существующие данные. При классификации данных и алгоритмов могут возникать ошибки, что в конечном итоге ставит под сомнение объективность знаний, получаемых с помощью искусственного интеллекта, и показывает наличие особой предвзятости, отличной от когнитивной предвзятости человека».

Каэминия продолжил, указав на некоторые когнитивные предвзятости человека, в частности на предвзятость подтверждения, заявив: «Люди обычно стремятся выбирать из данных те, которые подтверждают их собственные убеждения. Это систематическое поведение, и на функционирование мозга человека, который формируется под влиянием культуры, традиций и других факторов, напрямую влияет множество факторов. Эти влияния, в свою очередь, сказываются на том, как работает человеческий мозг».

Он добавил: на следующем этапе было отмечено внимание к когнитивным предвзятостям, и он сказал: внимание людей обычно направлено на те стимулы, которые имеют для них значение. Например, если кто-то боится кошек, то, входя в дом или пространство, он первым делом будет искать, есть ли в этом месте кошка, а наличие тараканов или других насекомых не будет для него важным.

Каэминия продолжил разъяснять концепцию самообслуживающей предвзятости и отметил: обычно человек стремится приписывать себе успехи, а неудачи — другим. Это и есть самообслуживающая предвзятость. Например, если человек получает хороший балл на экзамене, он скажет, что это результат его усилий, но если он не сдает экзамен, то скажет, что он готовился хорошо, но вопросы были некачественными.

Он также объяснил, что существует различие между когнитивными ошибками и предвзятостями, и подчеркнул: важное замечание заключается в том, что когнитивные ошибки — это не то же самое, что и предвзятости, на самом деле когнитивная предвзятость является основой когнитивных ошибок.

Далее Каэминия обсудил различие между когнитивными и алгоритмическими предвзятостями и сказал: алгоритмическая предвзятость связана с данными, их количеством и качеством, в то время как когнитивная предвзятость зависит от человеческого мозга. Когнитивная предвзятость может быть источником алгоритмической предвзятости, таким образом, когнитивная предвзятость является более фундаментальной, чем алгоритмическая.

Затем он продолжил объяснять различия между когнитивной и алгоритмической предвзятостью и сказал, что существует шесть основных различий: Во-первых, они различаются по источнику. В искусственном интеллекте источник — это данные и алгоритмы, а в когнитивной предвзятости — это опыт, культура, традиции и так далее. Их сущности также различаются: алгоритмы имеют количественную форму, а когнитивные предвзятости — качественную, более сложную. Таким образом, они отличаются по своей природе.

Член учебного совета Исследовательского института культуры и исламской мысли отметил: чем больше информации в искусственном интеллекте, тем лучше он работает. Если объем данных мал, система становится слабее. В искусственном интеллекте важны объем и разнообразие данных, и если их количество и разнообразие уменьшаются, предвзятости будут увеличиваться.

Каэминия отметил следующее отличие: способность к предсказанию. Он сказал: в алгоритмической предвзятости возможно предсказание и корректировка, однако в когнитивной предвзятости на самом деле исправление и предсказание очень сложны.

Затем он отметил третье отличие — масштаб воздействия, и сказал: в алгоритмической предвзятости влияние действительно масштабное и систематическое, в то время как когнитивная предвзятость проявляется либо на уровне индивида, либо группы, и может не распространиться на другие общества. Когнитивная война, поддерживаемая искусственным интеллектом, распространяет как алгоритмические, так и когнитивные предвзятости.

Он добавил: следующее различие касается возможности корректировки, которое он разъяснил: с помощью глубокого обучения можно корректировать данные и изменять их. Это возможно в искусственном интеллекте, но исправить когнитивные ошибки у человека гораздо труднее и занимает много времени. И, наконец, последнее отличие касается прозрачности, и здесь он сказал: в искусственном интеллекте можно вести документацию и логические выводы, но в случае с когнитивной предвзятостью это обычно происходит бессознательно, и точное и полное определение в политических и социальных областях невозможно.

Член учебного совета Исследовательского института культуры и исламской мысли добавил: важный аспект — это когнитивное несоответствие. Когнитивные психологи обнаружили, что у человека есть особые когнитивные процессы, при которых он сталкивается с когнитивным несоответствием в своих действиях. Когнитивные механизмы, изменяя себя, пытаются устранить умственное беспорядочное состояние, созданное реальностью.

Вопрос заключается в следующем: существует ли алгоритмическое несоответствие в искусственном интеллекте? Если такое существует, что есть некоторые признаки этого, мы можем сказать, что оно может быть причиной многих ошибок в искусственном интеллекте, и, кажется, что алгоритмическая предвзятость в искусственном интеллекте не может быть устранена.

В завершение Ходжат аль-Ислам Каэминия объяснил два взгляда на алгоритмическую предвзятость и сказал: существуют два мнения: первое, что искусственный интеллект работает независимо от человека, и второе, что искусственный интеллект работает в сотрудничестве с человеком.

Каэминия подытожил свои слова, сказав: на самом деле нужно признать, что роботы и искусственный интеллект не могут иметь абсолютную независимость от человека, и эта зависимость приводит к заражению когнитивной предвзятостью человека. Предположим, что искусственный интеллект может создать объективность в таких областях, как социальные науки и психология, но это невозможно, потому что существует когнитивная предвзятость, и, следовательно, можно утверждать, что мы сталкиваемся с алгоритмическим несоответствием.

Конец сообщения.